واترمارک دیجیتال؛ گامی به سوی تشخیص متون هوش مصنوعی

به گزارش ایسنا، هوش مصنوعی با مدل های زبانی پیشرفته ای که به کار می گیرد، قادر است متونی شبیه به نوشته های انسان تولید کند. این مدل های زبانی که به «مدل های زبانی بزرگ» یا LLM ها معروف هستند، در برنامه های مختلفی از جمله چت بات ها، نوشتن خودکار و تولید محتوا به کار می روند.

با وجود مزایای این فناوری ها، شناسایی متون تولیدشده توسط ماشین و نسبت دادن آن ها به منابع معتبر همواره یک چالش بوده است. این امر باعث شده تا نگرانی هایی درباره دقت و اعتبار این متون در میان کارشناسان و کاربران مطرح شود.

از آنجا که تفاوت ظاهری میان متون انسانی و مصنوعی کمتر شده است، نیاز به روش هایی برای تشخیص این دو بیشتر از قبل احساس می شود. روش های مختلفی برای حل این مشکل پیشنهاد شده است، اما اغلب این روش ها به دلیل تأثیر منفی بر کیفیت متن یا نیاز به توان محاسباتی بالا، در مقیاس های بزرگ کاربردی نیستند. به همین دلیل، پژوهشگران به دنبال راه حل هایی هستند که هم کیفیت متن را حفظ کند و هم در تشخیص متون مصنوعی مؤثر باشد.

در این زمینه، گروهی از پژوهشگران به سرپرستی «سومانث داتاتری» و «پوشمیت کهولی» از Google DeepMind سیستمی به نام SynthID-Text را توسعه داده اند. این سیستم با استفاده از یک الگوریتم نمونه گیری پیشرفته، واترمارک هایی را به طور نامحسوس به متون تولیدشده توسط هوش مصنوعی اضافه می کند.

این واترمارک ها در واقع امضاهای دیجیتالی هستند که می توانند با کمک نرم افزارهای خاص شناسایی شوند. این ابزار به گونه ای طراحی شده که دو مسیر متفاوت برای واترمارک گذاری ارائه می دهد: مسیری که کمی کیفیت متن را تغییر می دهد و مسیری که بدون تأثیر بر کیفیت، امضا را اضافه می کند.

در روش کار این پژوهش، الگوریتم نمونه گیری به گونه ای عمل می کند که انتخاب کلمات توسط هوش مصنوعی به شکلی تنظیم می شود که یک علامت خاص و قابل شناسایی در متن باقی بگذارد. این علامت با چشم انسان قابل مشاهده نیست، اما توسط نرم افزارهای تشخیص واترمارک به راحتی قابل ردیابی است. از این روش می توان برای شناسایی هرگونه متنی که توسط مدل های هوش مصنوعی تولید شده استفاده کرد.

نتایج این پژوهش که در نشریه معتبر Nature منتشر شده اند، نشان می دهند که سیستم SynthID-Text در مقایسه با روش های موجود، عملکرد بهتری در تشخیص متون تولیدشده توسط هوش مصنوعی دارد.

همچنین، بررسی کیفیت متون واترمارک گذاری شده نشان داده است که در حالت غیرتغییری (non-distortionary)، کیفیت متن حفظ می شود و تغییری در آن احساس نمی شود. از دیگر نتایج این پژوهش می توان به این نکته اشاره کرد که این واترمارک ها تأثیر چندانی بر میزان توان محاسباتی مورد نیاز برای اجرای مدل ها ندارند.

علاوه بر این، پژوهشگران تاکید دارند که اگرچه این واترمارک ها ممکن است با تغییرات جزئی در متن از بین بروند، اما این ابزار می تواند به عنوان گامی مهم در جهت افزایش شفافیت و مسئولیت پذیری در استفاده از مدل های زبانی هوش مصنوعی مورد استفاده قرار گیرد. این امر به ویژه در مواردی که متن های تولیدشده باید از اعتبار بالایی برخوردار باشند، اهمیت دارد.

در انتها بایستی اشاره کرد که این پژوهش، قدمی مهم در جهت افزایش امنیت و شفافیت استفاده از هوش مصنوعی در فرایندهای تولید محتوا محسوب می شود.

انتهای پیام